Vào năm 1991, nhạc sĩ Nguyễn Ngọc Thiện cùng sáu người bạn thân thiết (Trịnh Công Sơn, Từ Huy, Tôn Thất Lập, Trần Long Ẩn, Nguyễn Văn Hiên và Thanh Tùng) thành lập nhóm Những người bạn để đàm đạo về âm nhạc, biểu diễn trên sân khấu, và hằng tháng lại tụ họp một lần để chia sẻ về những sáng tác của họ.[1] Vào cuối năm 1993, Nguyễn Ngọc Thiện khi ấy đang đảm nhiệm vị trí biên tập tại Hãng phim Phương Nam và đang trong quá trình thực hiện album tuyển tập Chúc xuân.[2] Ở khoảng thời gian này, ông cho rằng nhạc xuân trước 1975 chưa được phép lưu hành nên việc tìm kiếm những tác phẩm cùng thuộc chủ đề là rất khó; chính vì vậy, các thành viên của Những người bạn sau đó đã quyết định mỗi người viết một bài hát xuân.[3] Tuy nhiên, trong album Chúc xuân cuối cùng cũng chỉ có "Ngày Tết quê em" của Từ Huy, "Hoa xuân ca" mà Trịnh Công Sơn đã chấp bút vào năm 1986, và "Hát cùng mùa xuân" được Nguyễn Ngọc Thiện và Diệp Minh Tuyền đồng sáng tác.[4] Vào tối 28 Tết năm 1994, nhạc sĩ Từ Huy rủ Nguyễn Ngọc Thiện đi dạo thành phố Hồ Chí Minh để tìm quà mua tặng bạn gái. "Bọn tôi đi dọc đường Lê Thánh Tôn, Lê Lợi... thấy các shop bán hàng đều phát ['Ngày Tết quê em']. Tôi thấy rất bất ngờ và thú vị vì băng cassette đó chúng tôi vừa làm xong và phát hành một tháng sau Noel, 28 Tết đã nghe rồi. Tôi biết là băng bán được và bài hát của bạn tôi thành công" ông kể.[2]

Mong muốn được viết một ca khúc cũng đạt hiệu ứng cao như sáng tác của Từ Huy, vào năm 1995, Nguyễn Ngọc Thiện đã lấy cảm hứng và dựa theo chủ đề "dân tộc" của "Ngày Tết quê em" để sáng tác "Mùa xuân ơi".[2] Trước đó, từ năm 1987 ông đã có ba tác phẩm nhạc Tết riêng, bao gồm: "Tình xuân", "Ta đã thấy mùa xuân" và "Mùa xuân lộc mới".Tuy không có ý định viết thêm bài hát khác do "Mùa xuân lộc mới" ở thời điểm này vẫn còn thịnh hành, vào phút chót, nhạc sĩ Nguyễn Ngọc Thiện vẫn ngẫu hứng sáng tác "Mùa xuân ơi" và nhanh chóng hoàn tất tác phẩm trong thời gian ngắn.[5]